آمریکا شرکتهای هوش مصنوعی چین را به استخراج گسترده خروجی مدلهای غربی متهم کرد
به گزارش پایگاه خبری پایداری ملی به نقل از خبرگزاری آنا، آژانس امنیت ملی آمریکا، آژانس امنیت سایبری و امنیت زیرساخت و افبیآی در بیانیهای مشترک مدعی شدهاند چند شرکت چینی از اواخر سال ۲۰۲۴ تاکنون میلیاردها توکن را از طریق میلیونها درخواست از مدلهای مرزی آمریکایی استخراج کردهاند.
براساس این ادعا، مدلهایی از خانواده جیپیتی، جمینای، گراک و کلود از جمله اهداف این فعالیتها بودهاند. نهادهای آمریکایی میگویند این عملیات احتمالاً با آگاهی دولت چین انجام شده و آن را رفتاری تهاجمی، مخرب و هدفمند توصیف کردهاند. چین در مقابل این ادعاها را بیاساس خوانده و واشنگتن را به استفاده دوگانه از مفهوم تقطیر برای محدود کردن رقبای چینی متهم کرده است.
تقطیر مدل چیست و چرا محل اختلاف شده است؟
تقطیر یکی از روشهای شناختهشده در توسعه هوش مصنوعی است. در این روش، یک مدل کوچکتر با استفاده از پاسخها یا دانش تولیدشده توسط مدلی قدرتمندتر آموزش داده میشود تا بخشی از تواناییهای آن را با هزینه محاسباتی کمتر به دست آورد. این روش بهخودیخود غیرعادی نیست و در پژوهش و توسعه مدلها به شکل گسترده استفاده میشود.
اختلاف زمانی ایجاد میشود که یک شرکت از خروجی مدل رقیب در حجم بالا و برخلاف شرایط استفاده آن سرویس برای آموزش مدل خود بهره ببرد. شرکتهایی مانند اوپنایآی و آنتروپیک پیشتر اعلام کردهاند استفاده خودکار و انبوه از خروجی مدلهایشان برای ساخت مدل رقیب را مجاز نمیدانند و سامانههایی برای شناسایی چنین رفتارهایی توسعه دادهاند.
مقامهای آمریکایی اکنون مدعیاند فعالیت شرکتهای چینی بسیار فراتر از استفاده معمول کاربران بوده و شامل میلیونها تعامل برنامهریزیشده با هدف جمعآوری حجم عظیمی از خروجی مدلها شده است. هنوز جزئیات فنی کامل شواهد منتشر نشده و بخش مهمی از ماجرا بر ارزیابی نهادهای امنیتی آمریکا استوار است.
دیپسیک و چند شرکت بزرگ چینی در فهرست قرار دارند
در بیانیه مشترک نام دیپسیک، مونشات، علیبابا، MiniMax، StepFun و Z.AI آمده است. به گفته نهادهای آمریکایی، این شرکتها خروجی مدلهای پیشرفته شرکتهای آمریکایی را در مقیاس وسیع جمعآوری کردهاند تا از آنها برای توسعه مدلهای خود استفاده کنند.
دیپسیک پیش از این نیز با اتهام مشابهی روبهرو شده بود. اوپنایآی در سال گذشته اعلام کرده بود شواهدی در اختیار دارد که نشان میدهد این شرکت چینی از خروجی مدلهای آن برای تقطیر استفاده کرده است. آنتروپیک نیز بارها درباره تلاش شرکتهای رقیب برای تقطیر غیرمجاز کلود هشدار داده و گفته چنین مدلهایی ممکن است برخی تواناییهای مدل اصلی را بدون سازوکارهای ایمنی مشابه بازتولید کنند.
آمریکا موضوع را فقط یک اختلاف تجاری نمیداند
نهادهای امنیتی آمریکا تقطیر گسترده را علاوه بر مسئله مالکیت فناوری، یک خطر امنیت ملی معرفی میکنند. استدلال آنها این است که شرکتهای خارجی میتوانند بدون تحمل تمام هزینه آموزش مدلهای مرزی، بخشی از تواناییهای آنها را بازتولید کنند و سپس این قابلیتها در حوزههایی مانند حملات سایبری، تحلیل اطلاعات یا کاربردهای نظامی مورد استفاده قرار گیرند.
این برداشت البته مورد قبول چین نیست. مقامهای چینی گفتهاند تقطیر یک روش فنی شناختهشده در صنعت هوش مصنوعی است و اتهامهای آمریکا بیشتر در چارچوب رقابت فناوری دو کشور قرار دارد. پکن همچنین واشنگتن را متهم کرده است که از نگرانیهای امنیتی برای محدود کردن رشد شرکتهای چینی استفاده میکند.
اتهامها درست پیش از گفتوگوی آمریکا و چین مطرح شدهاند
زمان انتشار بیانیه نیز قابل توجه است. آمریکا و چین برای نخستین دور رسمی گفتوگوهای دوجانبه درباره ایمنی هوش مصنوعی در میانه شهریور آماده میشوند. انتظار میرود اسکات بسنت، وزیر خزانهداری آمریکا، یکی از مقامهای اصلی طرف آمریکایی باشد و موضوعاتی مانند خطر مدلهای پیشرفته، حملات سایبری مبتنی بر هوش مصنوعی و شیوههای نظارت بر توسعه مدلها در دستور کار قرار گیرد.
به همین دلیل، مطرح شدن اتهام «تقطیر صنعتی» درست پیش از این مذاکرات میتواند فضای گفتوگوها را تحت تأثیر قرار دهد. دو کشور همزمان از یک طرف در حوزه هوش مصنوعی رقابت شدیدی دارند و از طرف دیگر تلاش میکنند درباره برخی خطرهای مشترک فناوری به چارچوبی برای همکاری برسند.
خود صنعت هوش مصنوعی هم نگاه یکسانی ندارد
موضع شرکتهای آمریکایی درباره تقطیر نیز همیشه یکسان نبوده است. اوپنایآی و آنتروپیک از یک سو با استفاده بدون مجوز از خروجی مدلهایشان برای آموزش مدلهای رقیب مخالفت کردهاند، اما از سوی دیگر تقطیر بهعنوان یک روش فنی بخشی عادی از توسعه مدلها محسوب میشود.
سم آلتمن، مدیرعامل اوپنایآی، نیز در اظهارات اخیر خود گفته ترجیح میدهد دیگران مدلهای شرکت را تقطیر نکنند، اما این موضوع را در میان بزرگترین نگرانیهای خود قرار نمیدهد. این دیدگاه نشان میدهد حتی در داخل صنعت نیز مرز میان استفاده مشروع از خروجی مدلها، یادگیری از آنها و ساخت مدل رقیب هنوز بهطور کامل روشن نشده است.
رقابت آمریکا و چین وارد مرحله تازهای شده است
اختلاف بر سر تقطیر نشان میدهد رقابت هوش مصنوعی دیگر فقط به تراشه، دیتاسنتر و تعداد پارامترهای مدل محدود نیست و حتی خروجی مدلها نیز به یک دارایی راهبردی تبدیل شده است. آموزش مدلهای مرزی میلیاردها دلار هزینه دارد و اگر شرکتی بتواند با پرسوجوی گسترده از یک مدل موجود، بخشی از توانایی آن را با هزینه بسیار کمتر بازسازی کند، مزیت اقتصادی و فنی قابل توجهی به دست میآورد.
در مقابل، تعیین اینکه چه مقدار استفاده از خروجی یک مدل «یادگیری مشروع» و از چه نقطهای «استخراج غیرمجاز» محسوب میشود، هنوز مسئلهای حلنشده است. اتهام تازه آمریکا این بحث فنی را بیش از پیش به حوزه امنیت ملی و رقابت ژئوپلیتیکی کشانده است؛ موضوعی که احتمالاً در گفتوگوهای پیش روی واشنگتن و پکن نیز یکی از محورهای اختلاف باقی خواهد ماند.